AKIM telah ditubuhkan pada 16 Februari 1995 oleh bekas Yang Dipertua PAS Kawasan Pasir Puteh, Cikgu Musa Salleh kerana tidak berpuas hati dengan Kerajaan PAS Kelantan yang dikatakan tidak melaksanakan hudud dengan segera. Semenjak awal 1991, beberapa pimpinan PAS dari kelompok ini telah mempersoalkan kewibawaan Haji Nik Abdul Aziz Nik Mat sebagai Menteri Besar Kelantan kerana kononnya lebih mengutamakan perkara-perkara remeh dalam pentadbiran daripada melaksanakan undang-undang jenayah syariah.

Nik Abdul Aziz pada 2 Februari 1991 telah mempertegaskan bahawa hudud akan dilaksanakan oleh kerajaan secara berperingkat-peringkat, bukannya dengan tergesa-gesa. Dalam pada itu, pada 7 November 1992, draf Enakmen Kanun Jenayah Syariah II Kelantan telah berjaya diluluskan oleh Majlis Syura Ulamak PAS, sebelum ia dibentangkan di DUN Kelantan pada 24 November 1993. Walau bagaimanapun Cikgu Musa mendakwa PAS tidak mampu mentadbir secara Islam kerana kegagalan menyegerakan perlaksanaan hudud ini.

Ekoran dari rasa tidak puas hati dengan pendekatan bertahap yang dibuat oleh Kerajaan PAS dalam perlaksanaan hukum jenayah syariah ini, pada 5 Februari 1992, Cikgu Musa telah bertindak keluar dari PAS, tetapi gagal menarik ahli-ahli PAS bersama beliau. Pada 13 Julai 1994 beliau mengumumkan penubuhan parti AKIM yang hanya disertai oleh ahli-ahli keluarga dan pengikut tegarnya sahaja. AKIM yang hanya berjaya didaftarkan dengan Pendaftar Pertubuhan (RoS) pada 16 Februari 1995 telah dipimpin oleh Cikgu Musa (1995-1998), Mohd Din Nizam Din (1998-1999), Muhammad Yusof (1999-2002), Hanafi Mamat (2002-2009) dan Zakaria Salleh (2009-2010).